Module LLM Kit

SKU:K144

説明

Module LLM Kitは、オフライン AI 推論とデータ通信インターフェースアプリケーションに特化したスマートモジュラーキットです。Module LLM と Module13.2 LLM Mate モジュールを統合し、様々なシナリオにおけるオフライン AI 推論とデータ対話の要件を満たします。

Module LLMは、効率的でインテリジェントな対話を必要とする端末デバイス向けに特別に設計された、統合型オフライン大規模言語モデル（LLM）推論モジュールです。スマートホームアプリケーション、音声アシスタント、または産業制御など、Module LLM はクラウドに依存せずにスムーズで自然な AI 体験を提供し、プライバシー、セキュリティ、安定性を確保します。

Module13.2 LLM Mate Moduleは、システム統合と拡張を容易にするための様々なインターフェース機能を提供します。M5-Bus インターフェースを介して Module LLM とスタック電源供給を実現し、内蔵の CH340N USB 変換チップは USB からシリアルへのデバッグ機能を提供し、Type-C インターフェースは USB ログ出力に使用されます。さらに、RJ45 インターフェースはオンボードネットワークトランスフォーマーと連携して 100 Mbps イーサネットポートとコアシリアルポート（SBC アプリケーションをサポート）に拡張します。FPC-8P インターフェースは Module LLM に直接接続し、安定したシリアル通信を確保します。さらに、DIY 拡張用に HT3.96*9P はんだパッドが予約されています。

Module LLM モジュールは、StackFlow フレームワークと Arduino/UiFlow ライブラリを統合しており、わずか数行のコードでエッジインテリジェンスを実装することができます。AiXin AX630C SoC プロセッサを搭載し、Transformer モデルをネイティブサポートする高効率 NPU が 3.2 TOPS を提供し、複雑な AI タスクを容易に処理します。4GB LPDDR4 メモリ（ユーザーアプリケーション用に 1GB と、ハードウェアアクセラレーション専用に 3GB）と 32GB eMMC ストレージを搭載し、並列マルチモデルのロードとチェーン推論をサポートし、スムーズなマルチタスクを確保します。動作消費電力はわずか約 1.5W で、同様の製品よりもはるかにエネルギー効率が高く、長期運用に理想的です。

Module LLM は複数のモデルと互換性があり、Qwen2.5-0.5B 大規模言語モデルがプリインストールされており、KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（テキスト読み上げ）などの組み込み機能を備えています。また、apt ベースのソフトウェアとモデルパッケージの迅速な更新もサポートしています。openai-api プラグインをインストールすることで、OpenAI 標準 API と互換性を持ち、チャット、会話の完了、音声からテキスト、テキストから音声など、様々なアプリケーションモードをサポートします。公式 apt リポジトリは、deepseek-r1-distill-qwen-1.5b、InternVL2_5-1B-MPO、Llama-3.2-1B、Qwen2.5-0.5B、Qwen2.5-1.5B などの豊富な大規模モデルリソースと、テキスト読み上げモデル（melotts）、音声認識モデル（whisper-tiny、whisper-base）、視覚モデル（yolo11 などの SOTA モデル）を提供しています。リポジトリは継続的に更新され、最先端のモデルアプリケーションをサポートし、複雑な AI タスクの要求に応えます。

Module LLM Kitはプラグアンドプレイで、M5Core と組み合わせると、即座に AI インタラクティブ体験を提供します。ユーザーは煩雑な設定なしに既存のスマートデバイスにシームレスに統合でき、迅速にインテリジェント機能を有効にしてデバイスのパフォーマンスを向上させることができます。この製品は、オフライン音声アシスタント、テキスト読み上げ変換、スマートホーム制御、インタラクティブロボットなどに最適です。

チュートリアル

Arduino IDE

Arduino IDE

このチュートリアルでは、Arduino IDE を使用して Module LLM デバイスのプログラミングと制御方法について紹介します。

UiFlow2

UiFlow2

このチュートリアルでは、UIFlow2.0 グラフィカルプログラミングプラットフォームを使用してモジュール LLM デバイスを制御する方法を紹介します。

特徴

• オフライン推論、INT8 精度で 3.2 TOPS
• 統合された KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（テキスト読み上げ）
• 並列マルチモデル処理
• オンボード 32GB eMMC ストレージと 4GB LPDDR4 メモリ
• オンボードマイクとスピーカー
• シリアル通信
• SD カードファームウェアアップグレード
• ADB デバッグをサポート
• RGB ステータス LED
• 内蔵 Ubuntu システム
• OTG 機能をサポート
• 開発プラットフォーム
  • UiFlow1
  • UiFlow2
  • Arduino IDE

含まれるもの

• 1 x Module LLM
• 1 x Module LLM Mate
• 2 x FPC-8P ケーブル

アプリケーション

• オフライン音声アシスタント
• テキスト読み上げ変換
• スマートホーム制御
• インタラクティブロボット

仕様

操作説明

接続手順とインターフェース概要

回路図

• Module LLM 回路図ダウンロード
• Module13.2 LLM Mate 回路図ダウンロード

1/10

ピンマップ

M5-Bus

• Module LLM

• Module LLM Mate

製品サイズ

データシート

• AX630C

ソフトウェア

クイックスタート

• Module LLM ADB / SSH / UART 接続する

• Module LLM Software Update

• Module LLM Image Update

• LLM モジュール動作状態インジケータ:

  • 赤：デバイスが初期化中
  • 緑：デバイスが正常に初期化

• LLM モジュールアップグレードステータスインジケータ:

  • 青点滅：アプリケーションパッケージの更新中
  • 赤：アプリケーションパッケージの更新に失敗
  • 緑：アプリケーションパッケージの更新が正常に完了

UIFlow

• LLMモジュールUIFlow2.0クイックスタート
• LLMモジュールUIFlow2.0 API

Arduino

• LLMモジュール Arduino クイックスタート
• LLMモジュール Arduino ライブラリ
• LLMモジュール Arduino ライブラリ API

OpenAI API

• Module LLM OpenAI API Tutorial

開発フレームワーク

• StackFlow

開発リソース

• AX630C Databrief
• LLMモジュールJSON APIドキュメント
• LLMモジュール AX630C API ドキュメント
• LLMモジュール AX620E MSP/サンプル
• LLMモジュール Linux Kernel 4.19.125-head
• AXERA LLM サンプル
• AXERA CV サンプル
• LLM モジュール大規模モデルのコンパイルガイド

動画

• Module LLM 製品紹介とデモンストレーション

製品比較

AI ベンチマーク比較